Tuy đóng trụ sở tại Thành phố Hồ Chí Minh, gốc gác đội bóng lại xuất phát từ Hà Tĩnh[1]. Khởi đầu từ Đội bóng đá Hà Tĩnh, thành lập năm 1998, do Sở Thể dục Thể thao Hà Tĩnh quản lý, đến cuối thập niên 2000, đội thi đấu tại giải hạng Nhì. Đầu năm 2010, đội chuyển sang mô hình chuyên nghiệp, do Tập đoàn Xuân Thành (Ninh Bình) quản lý, thi đấu tại mùa bóng 2010 với tên gọi Câu lạc bộ bóng đá Xi măng Xuân Thành Hà Tĩnh. Một học viện bóng đá mang tên Xuân Thành - Kẻ Gỗ cũng được thành lập để đào tạo các tuyền thủ trẻ.[2] Cựu tuyển thủ quốc gia Nguyễn Văn Sỹ cũng được mời về làm Huấn luyện viên trưởng.

Tuy nhiên, chưa kết thúc mùa bóng 2010, với thành tích yếu kém, đội không hoàn thành được mục tiêu thăng hạng. Huấn luyện viên Nguyễn Văn Sỹ chia tay đội. Đội đứng trước nguy cơ tan ra. Để giữ lại đội bóng cũng như đạt được mục đích thăng hạng, tháng 7 năm 2010, ông bầu Nguyễn Đức Thụy đã mua lại suất thi đấu ở giải hạng Nhất 2011 của đội Hòa Phát V&V vừa được thăng hạng[3]. Một số cầu thủ giỏi của Hòa Phát V&V cũng được chuyển nhượng để nhập vào đội.